XAI на Илон Мъск ограничава Grok след недоволство срещу сексуализирани изображения

Компанията за изкуствен интелект на Илон Мъск xAI ограничи потреблението на своя противоречив генератор на изображения с изкуствен интелект Grok до плащащи клиенти, след възходящо неодобрение против потреблението му за разпространяване на сексуализирани дълбоки подправени изображения на дами и деца.

Стартиращата компания разгласи хода в петък сутринта, дни откакто стана ясно, че чатботът е бил употребен за основаване на експлицитни изображения на хора без единодушие.

Тези разкрития накараха законодателите в Европейски Съюз, Франция и Обединеното кралство да заплашат платформата с санкции и забрани, в случай че не предприеме дейности.

„ Генерирането и редактирането на изображения сега са лимитирани до плащащи клиенти “, разгласява Grok на X. xAI не отговори незабавно на искане за спомагателен коментар.

Grok е съзнателно планиран да има по-малко загради за наличие от съперниците, като Мъск назовава модела „ оптимално търсещ истината “. Чатботът на компанията също включва функционалност, която разрешава на потребителите да генерират рисковани изображения.

Премиерът на Обединеното кралство сър Кийр Стармър даде обещание да предприеме дейности против X в четвъртък, като прикани обществената медийна платформа да „ събере дейностите си “ и да спре своя AI chatbot инструмент Grok да създава сексуализирани изображения на деца. 

Междувременно Европейската комисия подреди на X да резервира вътрешни документи, свързани с Grok, до края на годината. Френските министри също са докладвали на прокурорите и медийните регулатори за половите изображения, които Грок е генерирал.

На 3 януари Мъск разгласява на X, че „ всеки, който употребява Grok за основаване на нелегално наличие, ще понесе същите последици, както в случай че качи нелегално наличие “.

Възходът на генеративния AI докара до детонация на дълбоки подправени изображения без единодушие, с помощта на това какъв брой елементарно е да се употребява технологията за основаване на такива изображения.

Фондацията Internet Watch, основана в Обединеното кралство организация с нестопанска цел, съобщи, че генерираните от изкуствен интелект изображения на полово малтретиране на деца са се удвоили през миналата година, като материалът става все по-екстремен.

Докато xAI съобщи, че е свалил противозаконни генерирани от изкуствен интелект изображения на деца, последният случай ще породи спомагателни опасения по отношение на това какъв брой елементарно е да се преодолеят защитните парапети в моделите с изкуствен интелект. Технологичната промишленост и регулаторите се борят с широкообхватното обществено влияние на генеративния AI.

През 2023 година откриватели от Станфордския университет откриха, че известна база данни, употребена за основаване на генератори на изображения с AI, е цялостна с материали за полово принуждение над деца.

Законите, регулиращи нездравословното генерирано от AI наличие, са разнородни. През май 2025 година Съединени американски щати подписаха закона Take It Down Act, който се занимава с генерираното от изкуствен интелект „ порно за възмездие “ и дълбоки имитации.

Обединеното кралство също работи върху законопроект, който да забрани притежаването, основаването или разпространяването на AI принадлежности, които могат да генерират материали за полово малтретиране на деца, и да изисква AI системите да бъдат подробно тествани, с цел да се ревизира дали не могат да генерират нелегално наличие.